大家說,眼見為憑 ; 現今您仍覺得是嗎 ?
我想要先來講一段我自己的經歷 ; 小時候我的家人曾經覺得我瘋了,他們到處求神拜佛,後來我在耳裡聽到一聲撕聲裂吼的慘叫聲,如同電影演的鬼被制伏的吼聲,於是我再也没有聽到別人没聽到的聲音;一直到2019年我再次感受到這種Feeling ; 2021年我爸去了天國,我看到結界也看到他在天國的景象,為了讓家人能安心放下,我將看到的劃下來寫下來告訴我的家人,就這樣開啟了我原本討厭的繪畫。
黑白之間存在灰,我們都知道;天地之外存在鬼神,大部份的人可能也相信,否則不會有拜拜和普渡 ; 而大家所謂的正常人與瘋子之間有什麼呢 ? 我所說的可能是您没看過没聽到的,您相信我嗎 ? 而大家所謂的名人正常人,他們說的都是可信的嗎 ?
一、今天要來談深度偽造Deepfake
- 深度偽造一詞譯自英文「Deepfake」 ; 「deep learning」和「fake」的組合 ; 主要意指應用人工智慧深度學習的技術,合成某個(不一定存在的)人的圖像或影片、甚至聲音。最常見的應用,就是將影片中的人臉替換為另一張臉(常是名人),讓指定的臉在影片中做出自己從未說過或做過的事情。
- 深偽影片要達到良好的生成品質需要大量的資料 ; 名人、藝人等擁有較多公開的影片,等同提供深偽算法豐富的素材,成為訓練深偽的好素材。
- 以子之矛攻彼之盾,以 AI 技術辨識找出 Deepfake 的成品,有沒有機會呢? 2020年臉書與微軟舉辦的「換臉偵測大賽」(Deepfake Detection Challenge)就提供高額獎金,徵求能夠辨識造假影片的技術。然而成果只能說是差強人意,面對從未接觸過的影片,第一名辨識的準確率僅為 65.18%。
二、名人圈、演藝圈的Deepfake
這項技術有許多應用,包括娛樂產業中的特效製作和影像修復,但也存在一些潛在的風險,如製作虛假新聞、偽造證據或進行網絡欺詐。
- 2022年3月烏俄戰爭白熱化期間,一支「澤倫斯基要求烏克蘭軍人投降」的深偽影片,引起全球關注。
- 《玩命關頭》系列電影,在拍攝期間主角保羅沃克不幸意外離世,劇組便透過電腦合成影像技術,讓主角的弟弟替身上陣,主角身影得以再次與觀眾相見。
- 2022年5月,一家名為「BitVex」的假加密貨幣平台,利用Deepfake影片冒充馬斯克身份,宣稱是該平台的執行長,宣稱馬斯克利用該平台賺進高獲利,進行加密貨幣交易詐騙。
三、資安的Deepfake
- 香港金融詐騙:2023年,香港某金融機構的員工接到一通假冒其上司的視訊電話,要求匯出2500萬美元。這通電話的聲音和影像都是通過Deepfake技術合成的,最終導致公司遭受重大財務損失。
- 英國能源公司詐騙:2019年,英國一家能源公司的CEO接到一通假冒德國母公司上司的電話,要求將78萬歐元匯至指定帳戶。這通電話的聲音是通過Deepfake技術合成的,導致公司遭受重大損失。
四、Deepfake防範
- 提高警覺:保持懷疑的態度,尤其是當你看到或聽到一些看起來不太真實的內容時。可以詢問一些只有真正對象才知道的問題,來驗證對方的真實性。
- 技術檢測:使用專門的軟體和工具來檢測Deepfake內容,可以幫助你在視訊通話中即時確認對方的身份,但Deepfake 技術種類很多,也考量到軟體也有可能偵測錯誤的時候,因此解讀結果仍需小心,只能當作初步的判斷!
- 多渠道驗證:不要只依賴單一來源的信息,應該通過多個可靠的渠道來驗證信息的真實性。
- 注意異常細節:Deepfake技術雖然強大,但仍然可能在一些細節上出現破綻。例如,注意影片中人物的眼睛、嘴唇、皮膚質感等是否自然。
- 限制個人信息分享:在網路上分享過多的個人信息可能會被不法分子利用來製作Deepfake內容。
- 教育和培訓:提高自己和周圍人的防範意識,了解Deepfake技術的運作原理和辨識方法。
五、我没聽過的檢測Deepfake技術 (詢問微軟AI-Copilot來的)
- Sentinel:這是一個基於人工智慧的保護平台,主要用於幫助政府、國防機構和企業檢測Deepfake威脅。用戶可以通過網站或API上傳數字媒體,系統會自動分析是否存在人工智慧偽造行為。
- Intel FakeCatcher:這是一款由英特爾開發的實時Deepfake檢測器,可以有96%的準確率檢測假視頻,並在幾毫秒內返回結果。該技術利用視頻像素中的微妙“血流”變化來檢測Deepfake,這些血流信號是從臉部各處收集,然後演算法將這些信號轉換成時空圖,並藉助深入學習模型可以立即判斷視頻是真是假。
- Microsoft Video Authenticator:這是一款由微軟開發的工具,可以分析靜態照片或視頻,它旨在分析靜態照片或視頻,並提供即時置信度分數,表明人為操縱的可能性,能夠檢測人眼通常無法察覺的深度偽造的混合邊界和微妙的灰度變化。
引用出處:https://aimojo.io/zh-CN/deepfake-detection-tools/
deepfake影片在很短的時間內被大量製作並傳播,即使這些影片看起來都很假,卻也足夠影響許多人的看法,也就是說,deepfake的影片,無論造成的結果是性勒索還是政治事件,Deepfake最大的威脅是他們的存在本身動搖人們對事實的信任,這個威脅無論對組織或個人,都能在各個層次上產生程度不一的傷害。